dsh-fastcel:让 Vercel AI Gateway 会话从最快 Provider 起聊
dsh-fastcel 是 DavidCarliez 维护的 DeepSeek Harness 插件,面向经 Vercel AI Gateway 的推理:从公开 endpoint 统计按近一小时 median 吞吐排序 Provider,写入 providerOptions.gateway.order,并与网关 session affinity 配合。需 DSH 0.2.1-rc.2、Node 22+ 及 vercel-ai-gateway 路由;本地 npm ci/build 后以 link 安装。Web 界面与 /fastcel 命令展示排名与实际路由。MIT 许可,安装前请审阅源码。
阅读全文